ToolRec: Calibrated Preference Alignment for Query Recommendation in On-Device Assistants
ToolRec:面向设备助手的校准偏好对齐查询推荐
🧭 查询推荐 · 偏好对齐 · 点击率优化
Huazhong University of Science and Technology · OPPO AI Center
提出双层校准机制与加权KTO,在OPPO小布上显著提升工具调用查询的CTR和总点击量
📌 工作参考价值(4 点)
- 双层点击校准可迁移至电商行为建模:根据用户活跃度(浏览/加购/购买频次)分桶校准点击权重,减少沉默用户噪声;同时对工具型行为(如领券、收藏、直达搜索)提权,强化可执行动作的引导,提升转化率。
- 样本级加权KTO简化偏好对齐:无需构造正负样本对,直接利用隐式反馈(点击/未点击)和校准权重优化LLM,适合电商推荐中大量单点隐式反馈的排序或查询生成场景。
- 工具检索增强的查询生成范式:预先构建系统工具库(如加购、下单、查物流),在生成推荐查询或广告文案时,通过检索确保可执行性,避免“不可点击”的无效推荐,可直接嵌入对话Agent或多任务推荐系统。
- 在线A/B验证的实用迭代思路:工作已在亿级月活平台验证,证明在校准后的偏好信号上做对齐,能同时提升CTR和总点击量,为相关业务提供了可直接参考的离在线优化路径。